Пентагонът стъпва върху AI ускорител, тъй като епохата на смъртоносна автономия се очертава
Въпреки че финансирането му е несигурно и подробностите са неясни, Replicator се очаква да ускори вземането на трудни решения за това коя AI технология е достатъчно зряла и надеждна за внедряване - включително на оръжейни системи.
Сред учените, експертите в индустрията и служителите на Пентагона няма много спорове, че през следващите няколко години САЩ ще разполагат с напълно автономни смъртоносни оръжия. И въпреки че служителите настояват, че хората винаги ще контролират, експертите казват, че напредъкът в скоростта на обработка на данни и комуникациите между машини неизбежно ще премести хората в надзорни роли.
Това е особено вярно, ако, както се очаква, смъртоносно оръжията се разполагат масово в рояци дронове. Много страни работят по тях – и нито Китай, Русия, Иран, Индия или Пакистан са подписали обещание, инициирано от САЩ, за отговорно използване на военния ИИ.
Не е ясно дали Пентагонът в момента официално оценява някакво напълно автономно смъртоносна оръжейна система за разгръщане, както се изисква от директива от 2012 г. Говорителка на Пентагона не каза.
Промени в парадигмата
Replicator подчертава огромните технологични и кадрови предизвикателства за доставките и развитието на Пентагона, тъй като революцията на ИИ обещава да промени начина, по който се водят войните.
„Департаментът на отбраната се бори да възприеме разработките на ИИ от последния пробив в машинното обучение“, каза Грегъри Алън, бивш висш служител на Пентагона за ИИ, сега в мозъчния тръст Център за стратегически и международни изследвания.
Портфолиото на Пентагона може да се похвали с повече от 800 некласифицирани проекта, свързани с AI, голяма част от които все още са в процес на тестване. Обикновено машинното обучение и невронните мрежи помагат на хората да придобият прозрения и да създадат ефективност.
„ИИ, който имаме в отдела на отбраната в момента е силно натоварен с ливъридж и увеличава хората“, каза Миси Къмингс, директор на центъра по роботика на университета „Джордж Мейсън“ и бивш боен пилот от ВМС.“ „Няма изкуствен интелект, който да се движи сам. Хората го използват, за да се опитат да разберат по-добре мъглата на войната.“
Космосът, новата граница на войната
Един домейн, в който AI подпомага инструментите за проследяване на потенциални заплахи е космосът, най-новата граница във военното състезание.
Китай предвижда използването на AI, включително на сателити, за „вземане на решения за това кой е и не е противник“, началник на космическите сили на САЩ служител по технологии и иновации Лиза Коста, каза на онлайн конференция този месец.
САЩ имат за цел да поддържат темпото.
Оперативен прототип, наречен Machina, използван от Space Force, следи автономно повече от 40 000 обекта в космоса, организирайки хиляди колекции от данни всяка вечер с глобален телескопна мрежа.
Алгоритмите на Machina управляват сензорите на телескопа. Компютърното зрение и големите езикови модели им казват какви обекти да проследяват. И AI хореографира моментално черпейки от астродинамика и набори от данни за физика, каза полковник Уолъс „Рет“ Търнбул от Командването на космическите системи на конференция през август.
Друг AI проект в Space Force анализира радарни данни за откриване на предстоящо изстрелване на противникови ракети, каза той.
Поддържане на самолети и войници
На други места предсказващите способности на AI помагат Военновъздушните сили поддържат флота си високо, предвиждайки нуждите от поддръжка на повече от 2600 самолета, включително бомбардировачи B-1 и хеликоптери Blackhawk.
Моделите за машинно обучение идентифицират възможни повреди десетки часове преди да се случат, каза Том Сибел, главен изпълнителен директор на базираната в Силиконовата долина C3 AI, която има договора. Технологията на C3 също моделира траекториите на ракетите за Агенцията за противоракетна отбрана на САЩ и идентифицира вътрешни заплахи във федералната работна сила за Агенцията за контраразузнаване и сигурност на отбраната.
Сред усилията, свързани със здравето, е пилотен проект, проследяващ годността на цялата Трета пехотна дивизия на армията — повече от 13 000 войници. Предсказуемото моделиране и AI помагат за намаляване на нараняванията и увеличаване на производителността, каза майор Мат Висер.
Подпомагане на Украйна
В Украйна изкуственият интелект, осигурен от Пентагона и неговите съюзници в НАТО, помага да се предотврати руската агресия.
Съюзниците в НАТО споделят разузнавателна информация от данни, събрани от сателити, дронове и хора, някои комбинирани със софтуер от американския изпълнител Palantir. Някои данни идват от Maven, изследователският проект на Пентагона за изкуствен интелект, който сега се управлява предимно от Националната агенция за геопространствено разузнаване, казват служители, включително пенсионираният генерал от военновъздушните сили Джак Шанахан, първият директор на Пентагона за изкуствен интелект,
Maven започна през 2017 г. като усилие за обработка на видео от дронове в Близкия изток – подтикнато от силите за специални операции на САЩ, борещи се с ISIS и Ал-Кайда – и сега събира и анализира широк набор от сензорни и човешки данни.
AI също така помогна на създадената от САЩ група за подпомагане на сигурността в Украйна да помогне за организирането на логистиката за военна помощ от коалиция от 40 държави, казват представители на Пентагона.
Командване и контрол на всички домейни
За да оцелеят на бойното поле в днешно време, военните единици трябва да са малки, предимно невидими и да се движат бързо, защото експоненциално нарастващите мрежи от сензори позволяват на всеки да „вижда навсякъде по земното кълбо във всеки един момент“, отбеляза тогавашният председател на Обединените началници генерал Марк Мили в Юнска реч. „И това, което можете да видите, можете да стреляте.“
За по-бързо свързване на бойците, Пентагонът приоритизира разработването на преплетени бойни мрежи — наречени Съвместно командване и контрол на всички домейни — за автоматизиране на обработката на оптични, инфрачервени, радарни и други данни във въоръжените сили. Но предизвикателството е огромно и изпълнено с бюрокрация.
Кристиан Броуз, бивш директор на персонала на комисията по въоръжените сили на Сената, сега в отбранителната технологична фирма Anduril, е сред защитниците на военната реформа, които въпреки това вярват, че „може да печелят тук до известна степен."
„Аргументът може да е по-малко за това дали това е правилното нещо, което трябва да направим, и все повече за това как всъщност го правим – и относно необходимите бързи срокове“, каза той. Книгата на Броуз от 2020 г. „The Kill Chain“ настоява за спешно преоборудване, за да се изравни с Китай в надпреварата за разработване на по-интелигентни и по-евтини мрежови оръжейни системи.
За тази цел армията на САЩ работи усилено върху „обединяването на хора и машини“. " Десетки въздушни и морски превозни средства без екипаж в момента следят иранската дейност. Американските морски пехотинци и специални сили също използват автономния мини-коптер Ghost на Anduril, сензорни кули и технология за противодействие на дронове, за да защитят американските сили.
Напредъкът в индустрията в компютърното зрение са от съществено значение. Shield AI позволява на дроновете да работят без GPS, комуникации или дори дистанционни пилоти. Това е ключът към неговия Nova, квадрокоптер, който американските звена за специални операции са използвали в зони на конфликти за разузнаване на сгради.
На хоризонта: Програмата на ВВС за „лоялен служител“ възнамерява да съчетае пилотирани самолети с автономни. Пилот на F-16 може например да изпрати дронове за разузнаване, привличане на вражески огън или атака на цели. Ръководителите на военновъздушните сили се стремят към дебют по-късно през това десетилетие.
Състезанието за пълна автономия
Времената линия на „лоялния слуга“ не съвпада съвсем с тази на Replicator, която мнозина смятат за прекалено амбициозна. Междувременно неяснотата на Пентагона по отношение на Replicator може отчасти да има за цел да накара съперниците да гадаят, въпреки че планиращите все още могат да се ориентират по отношение на функциите и целите на мисията, каза Пол Шар, военен експерт по ИИ и автор на „Четирите бойни полета“.
Anduril и Shield AI, всяка от които е подкрепена от стотици милиони финансиране с рисков капитал, са сред компаниите, борещи се за договори.
Нейтън Майкъл, главен технологичен директор в Shield AI, смята, че те ще имат автономна рояк от най-малко три самолета без екипаж, готови за една година, използвайки своя V-BAT дрон. Понастоящем американската армия използва V-BAT – без AI ум – на кораби на ВМС, в мисии за борба с наркотиците и в подкрепа на морските експедиционни единици, казва компанията.
Ще отнеме известно време, преди по-големите рояци да могат да бъдат надеждно поставени, каза Майкъл. „Всичко е пълзене, ходене, бягане – освен ако не се подготвяте за провал.“
Единствените оръжейни системи, на които Шанахан, встъпилият в длъжност шеф на Пентагона AI, понастоящем вярва, че работят автономно, са изцяло отбранителни, като противоракетните системи Phalanx на корабите. Той се тревожи по-малко за автономните оръжия, които вземат решения сами, отколкото за системите, които не работят както се рекламира или убиват невоюващи или приятелски сили.
Настоящият главен цифров и AI офицер на отдела Крейг Мартел е решен да не позволи това се случва.
„Независимо от автономността на системата, винаги ще има отговорен агент, който разбира ограниченията на системата, обучен е добре със системата, има оправдано доверие кога и къде може да бъде внедрена – и винаги ще поеме отговорността“, каза Мартел, който преди това е ръководил машинно обучение в LinkedIn и Lyft. „Това никога няма да бъде така.“
Кога AI ще бъде достатъчно надежден за смъртоносна автономност, Мартел каза, че няма смисъл да се обобщава. Например Мартел се доверява на адаптивния круиз контрол на колата си, но не и на технологията, която трябва да я предпази от смяна на лентата. „Като отговорен агент, не бих разположил това, освен в много ограничени ситуации“, каза той. „Сега екстраполирайте това към военните.“
Офисът на Martell оценява потенциални генеративни случаи на използване на AI – има специална работна група за това – но се фокусира повече върху тестването и оценката на AI в процес на разработка.
Едно неотложно предизвикателство, казва Джейн Пинелис, главен инженер по изкуствен интелект в лабораторията по приложна физика на университета „Джонс Хопкинс“ и бивш ръководител на отдела за осигуряване на изкуствен интелект в офиса на Martell, е набирането и задържането на таланта, необходим за тестване на технологиите за изкуствен интелект. Пентагонът не може да се конкурира със заплати. Докторантите по компютърни науки с умения, свързани с изкуствения интелект, могат да печелят повече от високопоставените военни генерали и адмирали.
Стандартите за тестване и оценка също са незрели, подчертава неотдавнашен доклад на Националната академия на науките за ИИ на ВВС.
Може ли това да означава, че един ден САЩ ще пуснат под принуда автономни оръжия, които не преминават напълно проверката?
„Ние все още работим при предположението, че имаме време да направим това толкова стриктно и възможно най-усърдно“, каза Пинелис. „Мисля, че ако не сме готови и е време да предприемем действия, някой ще бъде принуден да вземе решение.“
